智能头条｜中国首部「生成式AI」规章来了

「这是今天最重要的智能新闻」

撰文：江睿杰

编辑：吴洋洋

7月13日，国家网信办等七部门联合发布《生成式人工智能服务管理暂行办法》（以下简称《暂行办法》），首次对生成式AI研发及服务作出明确规定，《暂行办法》自2023年8月15日起施行。

7月13日出台的这份《暂行办法》是基于4月发布的《生成式人工智能服务管理办法（征求意见稿）》（以下简称《征求意见稿》）调整优化而来，两者均明确要求生成式AI服务必须「遵循社会主义核心价值观」，在模型训练过程中必须「避免歧视」，必须「尊重知识产权和个人数据隐私权」，同时要尽量提高AI生成内容的准确性。两版文件均要求「对图片、视频等生成内容进行标识」，但都没有对文字生成内容作出规定。

此外，两版文件都要求，提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应按照《互联网信息服务算法推荐管理规定》履行「算法备案和变更、注销备案手续」。

相较于4月的《征求意见稿》，正式版《暂行办法》首次明确了对生成式AI监管的辩证原则，要求「发展和安全并重、促进创新和依法治理相结合」，以及实行「包容审慎和分类分级监管」（第三条）。基于上述核心原则，《暂行办法》对《征求意见稿》作了多处重要调整：

首次要求生成内容「透明」和「可靠」

《暂行办法》的总则部分对于生成式AI的技术发展提出的大方向是：「提升生成式人工智能服务的透明度，提高生成内容的准确性和可靠性。」（第四条第五款）。除了在《征求意见稿》中多次出现的「准确」以外，「透明」和「可靠」都是这次出现的新提法。

拟建设「公共训练数据资源平台」

「透明」和「可靠」对生成式AI服务提出了更高要求。而为推动行业发展，《暂行办法》提出了若干支持措施，比如第六条首次新增了「促进算力资源协同共享」的内容，还提到要「建设公共训练数据资源平台」，提出「公共数据要分类分级有序开放」，要「扩展高质量的公共训练数据资源」，用于生成式AI模型的训练。

未向境内公众提供服务的生成式AI「研发」不受该规定限制

除此以外，《暂行办法》在《征求意见稿》的基础上适度放宽了若干限制，体现了「包容审慎」。

比如《征求意见稿》中，只要是向境内用户提供服务，不论是「研发」生成式AI还是「利用」生成式AI，都属于监管范围。但《暂行办法》收缩了监管范围，明确只监管「利用」生成式AI的服务，未向境内公众提供服务的生成式AI「研发」不受限制。此外，《征求意见稿》将生成「代码」也明确归入监管范围，《暂行办法》则在列举生成式内容时不再专门提及「代码」。（以上均见两版文件第二条）

不限制AI生成「虚假信息」，但要限制它生成「虚假有害信息」

对于生成内容的具体要求也有所放宽。《征求意见稿》第四条第一款要求AI生成的内容不得包含「虚假信息」，《暂行办法》中则将之进一步限定为「虚假有害信息」。可能是考虑到类似ChatGPT这样的生成式AI不可避免地会「瞎说」，《暂行办法》不再要求生成式AI服务方单独采取措施以防止AI生成虚假信息（《征求意见稿》第四条第四款）。

不再要求生成式AI的使用者实名

用户的使用门槛也有所降低。《征求意见稿》第九条要求生成式AI的使用者必须提供真实身份信息，《暂行办法》则删去了这一条款。

七部门都要参与生成式AI管理

在放宽若干限制的同时，《暂行办法》进一步压实了管理责任，将《征求意见稿》中多次提到的「网信部门和国家有关部门」明确为包括「国家网信办、发展改革委、教育部、科技部、工信部、公安部、广电总局」在内的七部门。

「新闻出版、影视制作、文艺创作」等领域可以在本规定基础上另有规定

根据《暂行办法》第十六条，上述部门需要「完善与创新发展相适应的科学监管方式，制定相应的分类分级监管规则或者指引」，而国家对利用生成式人工智能服务从事「新闻出版、影视制作、文艺创作等活动另有规定的，从其规定」。

在主管部门监管职责细化的同时，生成式AI服务的提供者需要配合主管部门提供训练模型、数据的基本信息。《征求意见稿》要求服务提供者在「发现生成违法内容时停止生成并对模型重新优化训练」（第十五条），《暂行办法》则进一步要求服务提供者在采取前述措施的同时向主管部门报告。此外，《暂行办法》还要求服务提供者对违法使用者履行监督报告义务，在采取警示、限制功能等措施之外，还需向主管部门报告（第十四条）。

最后，《征求意见稿》第二十条中对违法情节严重或拒不改正者处以1万到10万元罚款的内容则被删除。

-END-

我们是一个诞生于GPT浪潮、由《第一财经》YiMagazine孵化的全新内容IP。 

和每一位关心技术、关注人类命运的读者一样，我们希望在这个充满不确定性的时代，更好地理解快速变化的科技世界，也更好地理解生而为「高级智能」的我们自己。

在这个目标下，我们计划从学术、商业、伦理、监管等多个角度报道和讨论与「智能」相关的议题。请注意，我们说的智能，不只是 AI。

若想了解更多当日资讯，请点击阅读往期智能晚报

若想了解头条新闻，请点击阅读往期

与记者交流，可添加微信（请备注公司名称和姓名）：

王杰夫 微信号: wjfsty

张司钰 微信号: helianthus351

吴洋洋 微信号: qitianjiuye

喜欢就关注我们吧，记得「设为星标」